<html>
 <head>
  <meta charset="utf-8"/>
  <meta content="width=device-width, initial-scale=1, maximum-scale=1, user-scalable=no" name="viewport"/>
  <title>
   MapReduce、Spark、Phoenix、Disco、Mars浅析及性能测试  | 数螺 | NAUT IDEA
  </title>
  <link href="http://cdn.bootcss.com/bootstrap/3.3.6/css/bootstrap-theme.min.css" rel="stylesheet"/>
  <link href="http://cdn.bootcss.com/bootstrap/3.3.6/css/bootstrap.min.css" rel="stylesheet"/>
  <style type="text/css">
   #xmain img {
                  max-width: 100%;
                  display: block;
                  margin-top: 10px;
                  margin-bottom: 10px;
                }

                #xmain p {
                    line-height:150%;
                    font-size: 16px;
                    margin-top: 20px;
                }

                #xmain h2 {
                    font-size: 24px;
                }

                #xmain h3 {
                    font-size: 20px;
                }

                #xmain h4 {
                    font-size: 18px;
                }


                .header {
	           background-color: #0099ff;
	           color: #ffffff;
	           margin-bottom: 20px;
	        }

	        .header p {
                  margin: 0px;
                  padding: 10px 0;
                  display: inline-block;  
                  vertical-align: middle;
                  font-size: 16px;
               }

               .header a {
                 color: white;
               }

              .header img {
                 height: 25px;
              }
  </style>
  <script src="http://cdn.bootcss.com/jquery/3.0.0/jquery.min.js">
  </script>
  <script src="http://nautstatic-10007657.file.myqcloud.com/static/css/readability.min.js" type="text/javascript">
  </script>
  <script type="text/javascript">
   $(document).ready(function() {
                 var loc = document.location;
                 var uri = {
                  spec: "http://dataunion.org/20034.html",
                  host: "http://dataunion.org",
                  prePath: "http://dataunion.org",
                  scheme: "http",
                  pathBase: "http://dataunion.org/"
                 };
    
                 var documentClone = document.cloneNode(true);
                 var article = new Readability(uri, documentClone).parse();
     
                 document.getElementById("xmain").innerHTML = article.content;
                });
  </script>
  <!-- 1466459493: Accept with keywords: (title(0.25):Spark,社区,性能,数盟, topn(0.433333333333):作业,数盟,任务,内存,数据挖掘,过程,文件,架构,结果,模型,并行,hadoop,计算,文章,线程,Spark,排序,数据,节点,步骤,用户,Hadoop,并行计算,文本,框架,海量,集群,使用率,程序段,阶段).-->
 </head>
 <body onload="">
  <div class="header">
   <div class="container">
    <div class="row">
     <div class="col-xs-6 col-sm-6 text-left">
      <a href="/databee">
       <img src="http://nautidea-10007657.cos.myqcloud.com/logo_white.png"/>
      </a>
      <a href="/databee">
       <p>
        数螺
       </p>
      </a>
     </div>
     <div class="hidden-xs col-sm-6 text-right">
      <p>
       致力于数据科学的推广和知识传播
      </p>
     </div>
    </div>
   </div>
  </div>
  <div class="container text-center">
   <h1>
    MapReduce、Spark、Phoenix、Disco、Mars浅析及性能测试
   </h1>
  </div>
  <div class="container" id="xmain">
   ﻿﻿
   <title>
    MapReduce、Spark、Phoenix、Disco、Mars浅析及性能测试 | 数盟社区
   </title>
   <!-- All in One SEO Pack 2.2.7.6.2 by Michael Torbert of Semper Fi Web Design[32,88] -->
   <!-- /all in one seo pack -->
   <!--
<div align="center">
<a href="http://strata.oreilly.com.cn/hadoop-big-data-cn?cmp=mp-data-confreg-home-stcn16_dataunion_pc" target="_blank"><img src="http://dataunion.org/wp-content/uploads/2016/05/stratabj.jpg"/ ></a>
</div>
-->
   <header id="header-web">
    <div class="header-main">
     <hgroup class="logo">
      <h1>
       <a href="http://dataunion.org/" rel="home" title="数盟社区">
        <img src="http://dataunion.org/wp-content/themes/yzipi/images/logo.png"/>
       </a>
      </h1>
     </hgroup>
     <!--logo-->
     <nav class="header-nav">
      <ul class="menu" id="menu-%e4%b8%bb%e8%8f%9c%e5%8d%95">
       <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-has-children menu-item-71" id="menu-item-71">
        <a href="http://dataunion.org/category/events" title="events">
         活动
        </a>
        <ul class="sub-menu">
         <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-22457" id="menu-item-22457">
          <a href="http://dataunion.org/2016timeline">
           2016档期
          </a>
         </li>
         <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-22459" id="menu-item-22459">
          <a href="http://dataunion.org/category/parterc">
           合作会议
          </a>
         </li>
        </ul>
       </li>
       <li class="menu-item menu-item-type-taxonomy menu-item-object-category current-post-ancestor current-menu-parent current-post-parent menu-item-has-children menu-item-20869" id="menu-item-20869">
        <a href="http://dataunion.org/category/tech" title="articles">
         文章
        </a>
        <ul class="sub-menu">
         <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-20867" id="menu-item-20867">
          <a href="http://dataunion.org/category/tech/base" title="base">
           基础架构
          </a>
         </li>
         <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-3302" id="menu-item-3302">
          <a href="http://dataunion.org/category/tech/ai" title="ai">
           人工智能
          </a>
         </li>
         <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-3303" id="menu-item-3303">
          <a href="http://dataunion.org/category/tech/analysis" title="analysis">
           数据分析
          </a>
         </li>
         <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-21920" id="menu-item-21920">
          <a href="http://dataunion.org/category/tech/dm">
           数据挖掘
          </a>
         </li>
         <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-3314" id="menu-item-3314">
          <a href="http://dataunion.org/category/tech/viz" title="viz">
           可视化
          </a>
         </li>
         <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-3305" id="menu-item-3305">
          <a href="http://dataunion.org/category/tech/devl" title="devl">
           编程语言
          </a>
         </li>
        </ul>
       </li>
       <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-has-children menu-item-20876" id="menu-item-20876">
        <a href="http://dataunion.org/category/industry">
         行业
        </a>
        <ul class="sub-menu">
         <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-16328" id="menu-item-16328">
          <a href="http://dataunion.org/category/industry/case" title="case">
           行业应用
          </a>
         </li>
         <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-2112" id="menu-item-2112">
          <a href="http://dataunion.org/category/industry/demo" title="demo">
           Demo展示
          </a>
         </li>
         <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-21562" id="menu-item-21562">
          <a href="http://dataunion.org/category/industry/news">
           行业资讯
          </a>
         </li>
        </ul>
       </li>
       <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-311" id="menu-item-311">
        <a href="http://dataunion.org/category/sources" title="sources">
         资源
        </a>
       </li>
       <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-20870" id="menu-item-20870">
        <a href="http://dataunion.org/category/books" title="book">
         图书
        </a>
       </li>
       <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-21363" id="menu-item-21363">
        <a href="http://dataunion.org/category/training">
         课程
        </a>
       </li>
       <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-has-children menu-item-21853" id="menu-item-21853">
        <a href="http://dataunion.org/category/jobs">
         职位
        </a>
        <ul class="sub-menu">
         <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-22050" id="menu-item-22050">
          <a href="http://dataunion.org/category/career">
           职业规划
          </a>
         </li>
        </ul>
       </li>
      </ul>
     </nav>
     <!--header-nav-->
    </div>
   </header>
   <!--header-web-->
   <div id="main">
    <div id="soutab">
     <form action="http://dataunion.org/" class="search" method="get">
     </form>
    </div>
    <div id="container">
     <nav id="mbx">
      当前位置：
      <a href="http://dataunion.org">
       首页
      </a>
      &gt;
      <a href="http://dataunion.org/category/tech">
       文章
      </a>
      &gt;  正文
     </nav>
     <!--mbx-->
     <article class="content">
      <header align="centre" class="contenttitle">
       <div class="mscc">
        <h1 class="mscctitle">
         <a href="http://dataunion.org/20034.html">
          MapReduce、Spark、Phoenix、Disco、Mars浅析及性能测试
         </a>
        </h1>
        <address class="msccaddress ">
         <em>
          1,319 次阅读 -
         </em>
         <a href="http://dataunion.org/category/tech" rel="category tag">
          文章
         </a>
        </address>
       </div>
      </header>
      <div class="content-text">
       <p>
        作者：
        <span class="ago">
         周明耀
        </span>
        出处：
        <a href="http://www.csdn.net/article/2015-07-15/2825216">
         csdn
        </a>
       </p>
       <div class="summary">
        当使用Hadoop技术架构集群,集群内新增删除节点,或某个节点机器内硬盘存储达到饱和值时,都会造成集群内数据分布不均匀等问题。本文介绍HDFS内部的数据平衡方式,通过实验案例向读者解释内部数据平衡的解决办法。
       </div>
       <div class="con news_content">
        <p>
         当使用 Hadoop 技术架构集群，集群内新增、删除节点，或者某个节点机器内硬盘存储达到饱和值时，都会造成集群内数据分布不均匀、数据丢失风险增加等问题出现。本文对 HDFS 内部的数据平衡方式做了介绍，通过实验案例的方式向读者解释内部数据平衡的解决办法。
        </p>
        <h2>
         并行计算模型和框架
        </h2>
        <p>
         目前开源社区有许多并行计算模型和框架可供选择，按照实现方式、运行机制、依附的产品生态圈等可以被划分为几个类型，每个类型各有优缺点，如果能够对各类型的并行计算框架都进行深入研究及适当的缺点修复，就可以为不同硬件环境下的海量数据分析需求提供不同的软件层面的解决方案。
        </p>
        <ul>
         <li>
          并行计算框架
         </li>
        </ul>
        <p>
         并行计算或称平行计算是相对于串行计算来说的。它是一种一次可执行多个指令的算法，目的是提高计算速度，以及通过扩大问题求解规模，解决大型而复杂的计算问题。所谓并行计算可分为时间上的并行和空间上的并行。时间上的并行就是指流水线技术，而空间上的并行则是指用多个处理器并发的执行计算。并行计算（Parallel Computing）是指同时使用多种计算资源解决计算问题的过程，是提高计算机系统计算速度和处理能力的一种有效手段。它的基本思想是用多个处理器来协同求解同一问题，即将被求解的问题分解成若干个部分，各部分均由一个独立的处理机来并行计算。并行计算系统既可以是专门设计的、含有多个处理器的超级计算机，也可以是以某种方式互连的若干台的独立计算机构成的集群。通过并行计算集群完成数据的处理，再将处理的结果返回给用户。
        </p>
        <ul>
         <li>
          国内外研究
         </li>
        </ul>
        <p>
         欧美发达国家对于并行计算技术的研究要远远早于我国，从最初的并行计算逐渐过渡到网格计算，随着 Internet 网络资源的迅速膨胀，因特网容纳了海量的各种类型的数据和信息。海量数据的处理对服务器 CPU、IO 的吞吐都是严峻的考验，不论是处理速度、存储空间、容错性，还是在访问速度等方面，传统的技术架构和仅靠单台计算机基于串行的方式越来越不适应当前海量数据处理的要求。国内外学者提出很多海量数据处理方法，以改善海量数据处理存在的诸多问题。
        </p>
        <p>
         目前已有的海量数据处理方法在概念上较容易理解，然而由于数据量巨大，要在可接受的时间内完成相应的处理，只有将这些计算进行并行化处理，通过提取出处理过程中存在的可并行工作的分量，用分布式模型来实现这些并行分量的并行执行过程。随着技术的发展，单机的性能有了突飞猛进的发展变化，尤其是内存和处理器等硬件技术，但是硬件技术的发展在理论上总是有限度的，如果说硬件的发展在纵向上提高了系统的性能，那么并行技术的发展就是从横向上拓展了处理的方式。
        </p>
        <p>
         2003 年美国 Google 公司对外发布了 MapReduce、GFS、BigData 三篇论文，至此正式将并行计算框架落地为 MapReduce 框架。
        </p>
        <p>
         我国的并行和分布式计算技术研究起源于 60 年代末，按照国防科技大学周兴铭院士提出的观点，到目前为止已经三个阶段了。第一阶段，自 60 年代末至 70 年代末，主要从事大型机内的并行处理技术研究；第二阶段，自 70 年代末至 90 年代初，主要从事向量机和并行多处理器系统研究；第三阶段，自 80 年代末至今，主要从事 MPP(Massively Parallel Processor) 系统研究。
        </p>
        <p>
         尽管我国在并行计算方面开展的研究和应用较早，目前也拥有很多的并行计算资源，但研究和应用的成效相对美国还存在较大的差距，有待进一步的提高和发展。
        </p>
        <hr/>
        <h2>
         MapReduce
        </h2>
        <p>
         MapReduce 是由谷歌推出的一个编程模型，是一个能处理和生成超大数据集的算法模型，该架构能够在大量普通配置的计算机上实现并行化处理。MapReduce 编程模型结合用户实现的 Map 和 Reduce 函数。用户自定义的 Map 函数处理一个输入的基于 key/value pair 的集合，输出中间基于 key/value pair 的集合，MapReduce 库把中间所有具有相同 key 值的 value 值集合在一起后传递给 Reduce 函数，用户自定义的 Reduce 函数合并所有具有相同 key 值的 value 值，形成一个较小 value 值的集合。一般地，一个典型的 MapReduce 程序的执行流程如图 1 所示。
        </p>
        <p>
         <img src="http://img.ptcms.csdn.net/article/201507/15/55a6160ed63bd_middle.jpg?_=46435"/>
        </p>
        <h5>
         图 1 .MapReduce 程序执行流程图
        </h5>
        <p>
         MapReduce 执行过程主要包括：
        </p>
        <ol>
         <li>
          将输入的海量数据切片分给不同的机器处理；
         </li>
         <li>
          执行 Map 任务的 Worker 将输入数据解析成 key/value pair，用户定义的 Map 函数把输入的 key/value pair 转成中间形式的 key/value pair；
         </li>
         <li>
          按照 key 值对中间形式的 key/value 进行排序、聚合；
         </li>
         <li>
          把不同的 key 值和相应的 value 集分配给不同的机器，完成 Reduce 运算；
         </li>
         <li>
          输出 Reduce 结果。
         </li>
        </ol>
        <p>
         任务成功完成后，MapReduce 的输出存放在 R 个输出文件中，一般情况下，这 R 个输出文件不需要合并成一个文件，而是作为另外一个 MapReduce 的输入，或者在另一个可处理多个分割文件的分布式应用中使用。
        </p>
        <p>
         受 Google MapReduce 启发，许多研究者在不同的实验平台上实现了 MapReduce 框架，本文将对 Apache Hadoop MapReduce、Apache、Spark、斯坦福大学的 Phoenix，Nokia 研发的 Disco，以及香港科技大学的 Mars 等 5 个 MapReduce 实现框架进行逐一介绍和各方面对比。
        </p>
        <ul>
         <li>
          Hadoop MapReduce
         </li>
        </ul>
        <p>
         Hadoop 的设计思路来源于 Google 的 GFS 和 MapReduce。它是一个开源软件框架，通过在集群计算机中使用简单的编程模型，可编写和运行分布式应用程序处理大规模数据。Hadoop 包含三个子项目：Hadoop Common、Hadoop Distributed File System(HDFS) 和 Hadoop MapReduce。
        </p>
        <p>
         第一代 Hadoop MapReduce 是一个在计算机集群上分布式处理海量数据集的软件框架，包括一个 JobTracker 和一定数量的 TaskTracker。运行流程图如图 2 所示。
        </p>
        <p>
         <img src="http://img.ptcms.csdn.net/article/201507/15/55a6163c49363_middle.jpg?_=24701"/>
        </p>
        <h5>
         图 2 .Hadoop MapReduce 系统架构图
        </h5>
        <p>
         在最上层有 4 个独立的实体，即客户端、JobTracker、TaskTracker 和分布式文件系统。客户端提交 MapReduce 作业；JobTracker 协调作业的运行；JobTracker 是一个 Java 应用程序，它的主类是 JobTracker；TaskTracker 运行作业划分后的任务，TaskTracker 也是一个 Java 应用程序，它的主类是 TaskTracker。Hadoop 运行 MapReduce 作业的步骤主要包括提交作业、初始化作业、分配任务、执行任务、更新进度和状态、完成作业等 6 个步骤。
        </p>
        <ul>
         <li>
          Spark MapReduce
         </li>
        </ul>
        <p>
         Spark 是一个基于内存计算的开源的集群计算系统，目的是让数据分析更加快速。Spark 非常小巧玲珑，由加州伯克利大学 AMP 实验室的 Matei 为主的小团队所开发。使用的语言是 Scala，项目的核心部分的代码只有 63 个 Scala 文件，非常短小精悍。Spark 启用了内存分布数据集，除了能够提供交互式查询外，它还可以优化迭代工作负载。Spark 提供了基于内存的计算集群，在分析数据时将数据导入内存以实现快速查询，“速度比”基于磁盘的系统，如比 Hadoop 快很多。Spark 最初是为了处理迭代算法，如机器学习、图挖掘算法等，以及交互式数据挖掘算法而开发的。在这两种场景下，Spark 的运行速度可以达到 Hadoop 的几百倍。
        </p>
        <ul>
         <li>
          Disco
         </li>
        </ul>
        <p>
         Disco 是由 Nokia 研究中心开发的，基于 MapReduce 的分布式数据处理框架，核心部分由 Erlang 语言开发，外部编程接口为 Python 语言。Disco 是一个开放源代码的大规模数据分析平台，支持大数据集的并行计算，能运行在不可靠的集群计算机上。Disco 可部署在集群和多核计算机上，还可部署在 Amazon EC2 上。Disco 基于主/从架构 (Master/Slave)，图 3 总体设计架构图展示了通过一台主节点 (Master) 服务器控制多台从节点 (Slave) 服务器的总体设计架构。
        </p>
        <p>
         <img src="http://img.ptcms.csdn.net/article/201507/15/55a6170f94de8_middle.jpg?_=39469"/>
        </p>
        <h5>
         图 3 .Disco 总体架构图
        </h5>
        <p>
         Disco 运行 MapReduce 步骤如下：
        </p>
        <ol>
         <li>
          Disco 用户使用 Python 脚本开始 Disco 作业；
         </li>
         <li>
          作业请求通过 HTTP 发送到主机；
         </li>
         <li>
          主机是一个 Erlang 进程，通过 HTTP 接收作业请求；
         </li>
         <li>
          主机通过 SSH 启动每个节点处的从机；
         </li>
         <li>
          从机在 Worker 进程中运行 Disco 任务。
         </li>
        </ol>
        <ul>
         <li>
          Phoenix
         </li>
        </ul>
        <p>
         Phoenix 作为斯坦福大学 EE382a 课程的一类项目，由斯坦福大学计算机系统实验室开发。Phoenix 对 MapReduce 的实现原则和最初由 Google 实现的 MapReduce 基本相同。不同的是，它在集群中以实现共享内存系统为目的，共享内存能最小化由任务派生和数据间的通信所造成的间接成本。Phoenix 可编程多核芯片或共享内存多核处理器 (SMPs 和 ccNUMAs)，用于数据密集型任务处理。
        </p>
        <ul>
         <li>
          Mars
         </li>
        </ul>
        <p>
         Mars 是香港科技大学与微软、新浪合作开发的基于 GPU 的 MapReduce 框架。目前已经包含字符串匹配、矩阵乘法、倒排索引、字词统计、网页访问排名、网页访问计数、相似性评估和 K 均值等 8 项应用，能够在 32 位与 64 位的 Linux 平台上运行。Mars 框架实现方式和基于 CPU 的 MapReduce 框架非常类似，也由 Map 和 Reduce 两个阶段组成，它的基本工作流程图如图 4 所示。
        </p>
        <p>
         <img src="http://img.ptcms.csdn.net/article/201507/15/55a617595f2ac_middle.jpg?_=53003"/>
        </p>
        <p>
         <strong>
          图 4 .Mars 基本工作流程图
         </strong>
        </p>
        <p>
         在开始每个阶段之前，Mars 初始化线程配置，包括 GPU 上线程组的数量和每个线程组中线程的数量。Mars 在 GPU 内使用大量的线程，在运行时阶段会均匀分配任务给线程，每个线程负责一个 Map 或 Reduce 任务，以小数量的 key/value 对作为输入，并通过一种无锁的方案来管理 MapReduce 框架中的并发写入。
        </p>
        <p>
         Mars 的工作流程主要有 7 个操作步骤：
        </p>
        <ol>
         <li>
          在主存储器中输入 key/value 对，并将它们存储到数组；
         </li>
         <li>
          初始化运行时的配置参数；
         </li>
         <li>
          复制主存储器中的输入数组到 GPU 设备内存；
         </li>
         <li>
          启动 GPU 上的 Map 阶段，并将中间的 key/value 对存储到数组；
         </li>
         <li>
          如果 mSort 选择 F，即需要排序阶段，则对中间结果进行排序；
         </li>
         <li>
          如果 noReduce 是 F，即需要 Reduce 阶段，则启动 GPU 上的 Reduce 阶段，并输出最终结果，否则中间结果就是最终结果；
         </li>
         <li>
          复制 GPU 设备存储器中的结果到主存储器。
         </li>
        </ol>
        <p>
         上述步骤的 1，2，3，7 这四个步骤的操作由调度器来完成，调度器负责准备数据输入，在 GPU 上调用 Map 和 Reduce 阶段，并将结果返回给用户。
        </p>
        <h5>
         <strong>
          五种框架的优缺点比较
         </strong>
        </h5>
        <h5>
         表 1. 五种框架优缺点比较
        </h5>
        <h5>
         <img src="http://img.ptcms.csdn.net/article/201507/15/55a61833d896f_middle.jpg?_=5200"/>
        </h5>
        <hr/>
        <h2>
         WordCount 实验
        </h2>
        <ul>
         <li>
          基本原理
         </li>
        </ul>
        <p>
         单词计数 (WordCount) 是最简单也是最能体现 MapReduce 思想的程序之一，可以称为 MapReduce 版”Hello World”。单词计数主要完成功能是：统计一系列文本文件中每个单词出现的次数。
        </p>
        <ul>
         <li>
          本次实验步骤
         </li>
        </ul>
        <p>
         本次实验的硬件资源基于 x86 服务器 1 台，配置为内存 32GB DDR3、E5 CPU/12 核、GPU，实验数据样本为 10M/50M/100M/500M/1000M 的文本文件五个，我们使用 Hadoop MapReduce、Spark、Phoenix、Disco、Mars 等 MapReduce 框架分别运行文本分析程序，基于结果一致的前提下统计出运行时间、运行时 CPU 占有率、运行时内存占有率等数据，并采用这些数据绘制成柱状图。
        </p>
        <h3>
         Hadoop MapReduce
        </h3>
        <p>
         首先需要将文件拆分成 splits，由于测试用的文件较小，所以每个文件为一个 split，并将文件按行分割形成&lt;key,value&gt;对，图 12 分割过程图所示。这一步由 MapReduce 框架自动完成，其中偏移量（即 key 值）包括了回车所占的字符数（Windows 和 Linux 环境会不同）。
        </p>
        <p>
         <img src="http://img.ptcms.csdn.net/article/201507/15/55a617ff875f5.jpg"/>
        </p>
        <h5>
         图 5 . 分割过程图
        </h5>
        <p>
         将分割好的&lt;key,value&gt;对交给用户定义的 map 方法进行处理，生成新的&lt;key,value&gt;对，图 6 执行 map 方法所示。
        </p>
        <p>
         <img src="http://img.ptcms.csdn.net/article/201507/15/55a61902e7db2.jpg"/>
        </p>
        <h5>
         图 6 . 执行 Map 方法过程图
        </h5>
        <p>
         得到 map 方法输出的&lt;key,value&gt;对后，Mapper 会将它们按照 key 值进行排序，并执行 Combine 过程，将 key 相同的 value 值累加，得到 Mapper 的最终输出结果。图 7Map 端排序及 Combine 过程所示。
        </p>
        <p>
         <img src="http://img.ptcms.csdn.net/article/201507/15/55a6198d95ed4_middle.jpg?_=23476"/>
        </p>
        <h5>
         图 7 . Map 端排序及 Combine 过程
        </h5>
        <p>
         Reducer 先对从 Mapper 接收的数据进行排序，再交由用户自定义的 reduce 方法进行处理，得到新的&lt;key,value&gt;对，并作为 WordCount 的输出结果，图 15Reduce 端排序及输出结果所示。
        </p>
        <h5>
         图 8 . Reduce 端排序及输出结果流程图
        </h5>
        <p>
         <img src="http://img.ptcms.csdn.net/article/201507/15/55a61acc51bc1_middle.jpg?_=13237"/>
        </p>
        <h5>
         清单 1 . 第一代 Hadoop MapReduce WordCount 示例代码
        </h5>
        <div>
         <div class="dp-highlighter bg_java">
          <div class="bar">
           <div class="tools">
            <b>
             [java]
            </b>
            <a class="ViewSource" href="http://www.csdn.net/article/2015-07-15/2825216" title="view plain">
             view plain
            </a>
            <a class="CopyToClipboard" href="http://www.csdn.net/article/2015-07-15/2825216" title="copy">
             copy
            </a>
            <p>
            </p>
            <div>
             <embed align="middle" height="18" id="ZeroClipboardMovie_1" name="ZeroClipboardMovie_1" src="http://csdnimg.cn/public/highlighter/ZeroClipboard.swf?e8a7c9a" type="application/x-shockwave-flash" width="18">
             </embed>
            </div>
           </div>
          </div>
          <ol class="dp-j" start="1">
           <li class="alt">
            <span class="keyword">
             import
            </span>
            java.io.IOException;
           </li>
           <li class="">
            <span class="keyword">
             import
            </span>
            java.util.StringTokenizer;
           </li>
           <li class="alt">
            <span class="keyword">
             import
            </span>
            org.apache.hadoop.conf.Configuration;
           </li>
           <li class="">
            <span class="keyword">
             import
            </span>
            org.apache.hadoop.fs.Path;
           </li>
           <li class="alt">
            <span class="keyword">
             import
            </span>
            org.apache.hadoop.io.IntWritable;
           </li>
           <li class="">
            <span class="keyword">
             import
            </span>
            org.apache.hadoop.io.Text;
           </li>
           <li class="alt">
            <span class="keyword">
             import
            </span>
            org.apache.hadoop.mapreduce.Job;
           </li>
           <li class="">
            <span class="keyword">
             import
            </span>
            org.apache.hadoop.mapreduce.Mapper;
           </li>
           <li class="alt">
            <span class="keyword">
             import
            </span>
            org.apache.hadoop.mapreduce.Reducer;
           </li>
           <li class="">
            <span class="keyword">
             import
            </span>
            org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
           </li>
           <li class="alt">
            <span class="keyword">
             import
            </span>
            org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
           </li>
           <li class="">
            <span class="keyword">
             import
            </span>
            org.apache.hadoop.util.GenericOptionsParser;
           </li>
           <li class="alt">
            <span class="keyword">
             public
            </span>
            <span class="keyword">
             class
            </span>
            WordCount {
           </li>
           <li class="">
            <span class="keyword">
             public
            </span>
            <span class="keyword">
             static
            </span>
            <span class="keyword">
             class
            </span>
            TokenizerMapper
           </li>
           <li class="alt">
            <span class="keyword">
             extends
            </span>
            Mapper&lt;Object, Text, Text, IntWritable&gt;{
           </li>
           <li class="">
            <span class="keyword">
             private
            </span>
            <span class="keyword">
             final
            </span>
            <span class="keyword">
             static
            </span>
            IntWritable one =
            <span class="keyword">
             new
            </span>
            IntWritable(
            <span class="number">
             1
            </span>
            );
           </li>
           <li class="alt">
            <span class="keyword">
             private
            </span>
            Text word =
            <span class="keyword">
             new
            </span>
            Text();
           </li>
           <li class="">
            <span class="comment">
             // 开始 Map 过程
            </span>
           </li>
           <li class="alt">
            <span class="keyword">
             public
            </span>
            <span class="keyword">
             void
            </span>
            map(Object key, Text value, Context context)
           </li>
           <li class="">
            <span class="keyword">
             throws
            </span>
            IOException, InterruptedException {
           </li>
           <li class="alt">
            StringTokenizer itr =
            <span class="keyword">
             new
            </span>
            StringTokenizer(value.toString());
           </li>
           <li class="">
            <span class="comment">
             //遍历 Map 里面的字符串
            </span>
           </li>
           <li class="alt">
            <span class="keyword">
             while
            </span>
            (itr.hasMoreTokens()) {
           </li>
           <li class="">
            word.set(itr.nextToken());
           </li>
           <li class="alt">
            context.write(word, one);
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            <span class="keyword">
             public
            </span>
            <span class="keyword">
             static
            </span>
            <span class="keyword">
             class
            </span>
            IntSumReducer
           </li>
           <li class="">
            <span class="keyword">
             extends
            </span>
            Reducer&lt;Text,IntWritable,Text,IntWritable&gt; {
           </li>
           <li class="alt">
            <span class="keyword">
             private
            </span>
            IntWritable result =
            <span class="keyword">
             new
            </span>
            IntWritable();
           </li>
           <li class="">
            <span class="comment">
             //开始 Reduce 过程
            </span>
           </li>
           <li class="alt">
            <span class="keyword">
             public
            </span>
            <span class="keyword">
             void
            </span>
            reduce(Text key, Iterable&lt;IntWritable&gt; values,Context context)
           </li>
           <li class="">
            <span class="keyword">
             throws
            </span>
            IOException, InterruptedException {
           </li>
           <li class="alt">
            <span class="keyword">
             int
            </span>
            sum =
            <span class="number">
             0
            </span>
            ;
           </li>
           <li class="">
            <span class="keyword">
             for
            </span>
            (IntWritable val : values) {
           </li>
           <li class="alt">
            sum += val.get();
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            result.set(sum);
           </li>
           <li class="">
            context.write(key, result);
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            <span class="keyword">
             public
            </span>
            <span class="keyword">
             static
            </span>
            <span class="keyword">
             void
            </span>
            main(String[] args)
            <span class="keyword">
             throws
            </span>
            Exception {
           </li>
           <li class="">
            Configuration conf =
            <span class="keyword">
             new
            </span>
            Configuration();
           </li>
           <li class="alt">
            String[] otherArgs =
            <span class="keyword">
             new
            </span>
            GenericOptionsParser(conf, args).getRemainingArgs();
           </li>
           <li class="">
            <span class="keyword">
             if
            </span>
            (otherArgs.length !=
            <span class="number">
             2
            </span>
            ) {
           </li>
           <li class="alt">
            System.err.println(
            <span class="string">
             “Usage: wordcount &lt;in&gt; &lt;out&gt;”
            </span>
            );
           </li>
           <li class="">
            System.exit(
            <span class="number">
             2
            </span>
            );
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            Job job =
            <span class="keyword">
             new
            </span>
            Job(conf,
            <span class="string">
             “word count”
            </span>
            );
           </li>
           <li class="alt">
            job.setJarByClass(WordCount.
            <span class="keyword">
             class
            </span>
            );
           </li>
           <li class="">
            job.setMapperClass(TokenizerMapper.
            <span class="keyword">
             class
            </span>
            );
           </li>
           <li class="alt">
            job.setCombinerClass(IntSumReducer.
            <span class="keyword">
             class
            </span>
            );
           </li>
           <li class="">
            job.setReducerClass(IntSumReducer.
            <span class="keyword">
             class
            </span>
            );
           </li>
           <li class="alt">
            job.setOutputKeyClass(Text.
            <span class="keyword">
             class
            </span>
            );
           </li>
           <li class="">
            job.setOutputValueClass(IntWritable.
            <span class="keyword">
             class
            </span>
            );
           </li>
           <li class="alt">
            FileInputFormat.addInputPath(job,
            <span class="keyword">
             new
            </span>
            Path(otherArgs[
            <span class="number">
             0
            </span>
            ]));
           </li>
           <li class="">
            FileOutputFormat.setOutputPath(job,
            <span class="keyword">
             new
            </span>
            Path(otherArgs[
            <span class="number">
             1
            </span>
            ]));
           </li>
           <li class="alt">
            System.exit(job.waitForCompletion(
            <span class="keyword">
             true
            </span>
            ) ?
            <span class="number">
             0
            </span>
            :
            <span class="number">
             1
            </span>
            );
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            }
           </li>
          </ol>
         </div>
        </div>
        <h5>
         Spark WordCount 实验
        </h5>
        <p>
         Spark 与 Hadoop MapReduce 的最大区别是它把所有数据保存在内存中，Hadoop MapReduce 需要从外部存储介质里把数据读入到内存，Spark 不需要这一步骤。它的实现原理与 Hadoop MapReduce 没有太大区别，这里不再重复原理，完整的运行代码如清单 2 所示。
        </p>
        <h5>
         清单 2 . Spark WordCount 示例代码
        </h5>
        <div>
         <div class="dp-highlighter bg_java">
          <div class="bar">
           <div class="tools">
            <b>
             [java]
            </b>
            <a class="ViewSource" href="http://www.csdn.net/article/2015-07-15/2825216" title="view plain">
             view plain
            </a>
            <a class="CopyToClipboard" href="http://www.csdn.net/article/2015-07-15/2825216" title="copy">
             copy
            </a>
            <p>
            </p>
            <div>
             <embed align="middle" height="18" id="ZeroClipboardMovie_2" name="ZeroClipboardMovie_2" src="http://csdnimg.cn/public/highlighter/ZeroClipboard.swf?e8a7c9a" type="application/x-shockwave-flash" width="18">
             </embed>
            </div>
           </div>
          </div>
          <ol class="dp-j" start="1">
           <li class="alt">
            SparkConf sparkConf =
            <span class="keyword">
             new
            </span>
            SparkConf().setAppName(
            <span class="string">
             “JavaWordCount”
            </span>
            );
           </li>
           <li class="">
            JavaSparkContext ctx =
            <span class="keyword">
             new
            </span>
            JavaSparkContext(sparkConf);
           </li>
           <li class="alt">
            JavaRDD&lt;String&gt; lines = ctx.textFile(args[
            <span class="number">
             0
            </span>
            ], Integer.parseInt(args[
            <span class="number">
             1
            </span>
            ]));
           </li>
           <li class="">
            JavaRDD&lt;String&gt; words = lines.flatMap(
            <span class="keyword">
             new
            </span>
            FlatMapFunction&lt;String, String&gt;() {
           </li>
           <li class="alt">
            <span class="annotation">
             @Override
            </span>
           </li>
           <li class="">
            <span class="keyword">
             public
            </span>
            Iterable&lt;String&gt; call(String s) {
           </li>
           <li class="alt">
            <span class="keyword">
             return
            </span>
            Arrays.asList(SPACE.split(s));
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            });
           </li>
           <li class="">
            <span class="comment">
             //定义 RDD ones
            </span>
           </li>
           <li class="alt">
            JavaPairRDD&lt;String, Integer&gt; ones = words.mapToPair(
            <span class="keyword">
             new
            </span>
            PairFunction&lt;String, String, Integer&gt;() {
           </li>
           <li class="">
            <span class="annotation">
             @Override
            </span>
           </li>
           <li class="alt">
            <span class="keyword">
             public
            </span>
            Tuple2&lt;String, Integer&gt; call(String s) {
           </li>
           <li class="">
            <span class="keyword">
             return
            </span>
            <span class="keyword">
             new
            </span>
            Tuple2&lt;String, Integer&gt;(s,
            <span class="number">
             1
            </span>
            );
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            });
           </li>
           <li class="alt">
            <span class="comment">
             //ones.reduceByKey(func, numPartitions)
            </span>
           </li>
           <li class="">
            JavaPairRDD&lt;String, Integer&gt; counts = ones.reduceByKey(
            <span class="keyword">
             new
            </span>
            Function2&lt;Integer, Integer, Integer&gt;() {
           </li>
           <li class="alt">
            <span class="annotation">
             @Override
            </span>
           </li>
           <li class="">
            <span class="keyword">
             public
            </span>
            Integer call(Integer i1, Integer i2) {
           </li>
           <li class="alt">
            <span class="keyword">
             return
            </span>
            i1 + i2;
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            },
            <span class="number">
             10
            </span>
            );
           </li>
           <li class="">
            <span class="comment">
             //输出 List
            </span>
           </li>
           <li class="alt">
            List&lt;Tuple2&lt;String, Integer&gt;&gt; output = counts.collect();
           </li>
           <li class="">
            Collections.sort(output,
            <span class="keyword">
             new
            </span>
            Comparator&lt;Tuple2&lt;String, Integer&gt;&gt;() {
           </li>
           <li class="alt">
            <span class="annotation">
             @Override
            </span>
           </li>
           <li class="">
            <span class="keyword">
             public
            </span>
            <span class="keyword">
             int
            </span>
            compare(Tuple2&lt;String, Integer&gt; t1,
           </li>
           <li class="alt">
            Tuple2&lt;String, Integer&gt; t2) {
           </li>
           <li class="">
            <span class="keyword">
             if
            </span>
            (t1._2 &gt; t2._2) {
           </li>
           <li class="alt">
            <span class="keyword">
             return
            </span>
            –
            <span class="number">
             1
            </span>
            ;
           </li>
           <li class="">
            }
            <span class="keyword">
             else
            </span>
            <span class="keyword">
             if
            </span>
            (t1._2 &lt; t2._2) {
           </li>
           <li class="alt">
            <span class="keyword">
             return
            </span>
            <span class="number">
             1
            </span>
            ;
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            <span class="keyword">
             return
            </span>
            <span class="number">
             0
            </span>
            ;
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            });
           </li>
          </ol>
         </div>
        </div>
        <h5>
         Disco WordCount 实验
        </h5>
        <p>
         MapReduce 框架由于 Disco 有分布式文件系统存在，所以一般情况下都不会单独使用，都是从分布式文件系统内取数据后读入内存，然后再切分数据、进入 MapReduce 阶段。首先需要调用 ddfs 的 chunk 命令把文件上传到 DDFS，然后开始编写 MapReduce 程序，Disco 外层应用程序采用 Python 编写。Map 程序实例如清单 3 所示，Reduce 程序示例如清单 4 所示。
        </p>
        <h5>
         清单 3 . Map 程序段
        </h5>
        <div class="dp-highlighter bg_js">
         <div class="bar">
          <div class="tools">
           <b>
            [js]
           </b>
           <a class="ViewSource" href="http://www.csdn.net/article/2015-07-15/2825216" title="view plain">
            view plain
           </a>
           <a class="CopyToClipboard" href="http://www.csdn.net/article/2015-07-15/2825216" title="copy">
            copy
           </a>
           <p>
           </p>
           <div>
            <embed align="middle" height="18" id="ZeroClipboardMovie_3" name="ZeroClipboardMovie_3" src="http://csdnimg.cn/public/highlighter/ZeroClipboard.swf?e8a7c9a" type="application/x-shockwave-flash" width="18">
            </embed>
           </div>
          </div>
         </div>
         <ol class="dp-c" start="1">
          <li class="alt">
           def fun_map(line, params):
          </li>
          <li class="">
           <span class="keyword">
            for
           </span>
           word
           <span class="keyword">
            in
           </span>
           line.split():
          </li>
          <li class="alt">
           yield word, 1
          </li>
         </ol>
        </div>
        <h5>
         清单 4 . Reduce 程序段
        </h5>
        <div class="dp-highlighter bg_js">
         <div class="bar">
          <div class="tools">
           <b>
            [js]
           </b>
           <a class="ViewSource" href="http://www.csdn.net/article/2015-07-15/2825216" title="view plain">
            view plain
           </a>
           <a class="CopyToClipboard" href="http://www.csdn.net/article/2015-07-15/2825216" title="copy">
            copy
           </a>
           <p>
           </p>
           <div>
            <embed align="middle" height="18" id="ZeroClipboardMovie_4" name="ZeroClipboardMovie_4" src="http://csdnimg.cn/public/highlighter/ZeroClipboard.swf?e8a7c9a" type="application/x-shockwave-flash" width="18">
            </embed>
           </div>
          </div>
         </div>
         <ol class="dp-c" start="1">
          <li class="alt">
           def fun_reduce(iter, params):
          </li>
          <li class="">
           from disco.util
           <span class="keyword">
            import
           </span>
           kvgroup
          </li>
          <li class="alt">
           <span class="keyword">
            for
           </span>
           word, counts
           <span class="keyword">
            in
           </span>
           kvgroup(sorted(iter)):
          </li>
          <li class="">
           yield word, sum(counts)
          </li>
         </ol>
        </div>
        <h5>
         清单 5 . Map/Reduce 任务
        </h5>
        <div class="dp-highlighter bg_js">
         <div class="bar">
          <div class="tools">
           <b>
            [js]
           </b>
           <a class="ViewSource" href="http://www.csdn.net/article/2015-07-15/2825216" title="view plain">
            view plain
           </a>
           <a class="CopyToClipboard" href="http://www.csdn.net/article/2015-07-15/2825216" title="copy">
            copy
           </a>
           <p>
           </p>
           <div>
            <embed align="middle" height="18" id="ZeroClipboardMovie_5" name="ZeroClipboardMovie_5" src="http://csdnimg.cn/public/highlighter/ZeroClipboard.swf?e8a7c9a" type="application/x-shockwave-flash" width="18">
            </embed>
           </div>
          </div>
         </div>
         <ol class="dp-c" start="1">
          <li class="alt">
           from disco.core
           <span class="keyword">
            import
           </span>
           Job, result_iterator
          </li>
          <li class="">
           def map(line, params):
          </li>
          <li class="alt">
           <span class="keyword">
            for
           </span>
           word
           <span class="keyword">
            in
           </span>
           line.split():
          </li>
          <li class="">
           yield word, 1
          </li>
          <li class="alt">
           def reduce(iter, params):
          </li>
          <li class="">
           from disco.util
           <span class="keyword">
            import
           </span>
           kvgroup
          </li>
          <li class="alt">
           <span class="keyword">
            for
           </span>
           word, counts
           <span class="keyword">
            in
           </span>
           kvgroup(sorted(iter)):
          </li>
          <li class="">
           yield word, sum(counts)
          </li>
          <li class="alt">
           <span class="keyword">
            if
           </span>
           __name__ ==
           <span class="string">
            ‘__main__’
           </span>
           :
          </li>
          <li class="">
           job = Job().run(input=[
           <span class="string">
            “http://discoproject.org/media/text/chekhov.txt”
           </span>
           ],
          </li>
          <li class="alt">
           map=map,
          </li>
          <li class="">
           reduce=reduce)
          </li>
          <li class="alt">
           <span class="keyword">
            for
           </span>
           word, count
           <span class="keyword">
            in
           </span>
           result_iterator(job.wait(show=True)):
          </li>
          <li class="">
           print(word, count)
          </li>
          <li class="alt">
           Note
          </li>
         </ol>
        </div>
        <h3>
         Phoenix WordCount 实验
        </h3>
        <p>
         Phoenix 是基于 CPU 的 MapReduce 框架，所以它也是采用将数据分割后读入内存，然后开始 MapReduce 处理阶段这样的传统方式。Phoenix 并不由用户决定切分每个 Map 分配到的数据块的大小，它是根据集群系统的实际 Cache 大小来切分的，这样可以避免出现分配到 Map 的数据块过大或者过小的情况出现。过大的数据快会导致 Map 执行较慢，过小的数据快会导致 Map 资源浪费，因为每次启动 Map 线程都需要消耗一定的系统资源。Map 阶段切分好的文本被多个 Map 并行执行，Phoenix 支持 100 个左右的 Map 并行执行，一个工作节点下可以有若干个 Map 并行执行。只有当一个工作节点上所有的 Map 任务都结束后才开始 Reduce 阶段。Reduce 阶段继续沿用了动态任务调度机制，同时允许用户自定义数据分区规则。
        </p>
        <h5>
         清单 6 . Phoenix 的 wordCount 程序段
        </h5>
        <div>
         <div class="dp-highlighter bg_java">
          <div class="bar">
           <div class="tools">
            <b>
             [java]
            </b>
            <a class="ViewSource" href="http://www.csdn.net/article/2015-07-15/2825216" title="view plain">
             view plain
            </a>
            <a class="CopyToClipboard" href="http://www.csdn.net/article/2015-07-15/2825216" title="copy">
             copy
            </a>
            <p>
            </p>
            <div>
             <embed align="middle" height="18" id="ZeroClipboardMovie_6" name="ZeroClipboardMovie_6" src="http://csdnimg.cn/public/highlighter/ZeroClipboard.swf?e8a7c9a" type="application/x-shockwave-flash" width="18">
             </embed>
            </div>
           </div>
          </div>
          <ol class="dp-j" start="1">
           <li class="alt">
            #include &lt;stdio.h&gt;
           </li>
           <li class="">
            #include &lt;strings.h&gt;
           </li>
           <li class="alt">
            #include &lt;string.h&gt;
           </li>
           <li class="">
            #include &lt;stddef.h&gt;
           </li>
           <li class="alt">
            #include &lt;stdlib.h&gt;
           </li>
           <li class="">
            #include &lt;unistd.h&gt;
           </li>
           <li class="alt">
            #include &lt;
            <span class="keyword">
             assert
            </span>
            .h&gt;
           </li>
           <li class="">
            #include &lt;sys/mman.h&gt;
           </li>
           <li class="alt">
            #include &lt;sys/stat.h&gt;
           </li>
           <li class="">
            #include &lt;sys/time.h&gt;
           </li>
           <li class="alt">
            #include &lt;fcntl.h&gt;
           </li>
           <li class="">
            #include &lt;ctype.h&gt;
           </li>
           <li class="alt">
            #include &lt;inttypes.h&gt;
           </li>
           <li class="">
            #include
            <span class="string">
             “map_reduce.h”
            </span>
           </li>
           <li class="alt">
            #include
            <span class="string">
             “stddefines.h”
            </span>
           </li>
           <li class="">
            #include
            <span class="string">
             “sort.h”
            </span>
           </li>
           <li class="alt">
            #define DEFAULT_DISP_NUM
            <span class="number">
             10
            </span>
           </li>
           <li class="">
            typedef struct {
           </li>
           <li class="alt">
            <span class="keyword">
             int
            </span>
            fpos;
           </li>
           <li class="">
            off_t flen;
           </li>
           <li class="alt">
            <span class="keyword">
             char
            </span>
            *fdata;
           </li>
           <li class="">
            <span class="keyword">
             int
            </span>
            unit_size;
           </li>
           <li class="alt">
            } wc_data_t;
           </li>
           <li class="">
            <span class="keyword">
             enum
            </span>
            {
           </li>
           <li class="alt">
            IN_WORD,
           </li>
           <li class="">
            NOT_IN_WORD
           </li>
           <li class="alt">
            };
           </li>
           <li class="">
            struct timeval begin, end;
           </li>
           <li class="alt">
            #ifdef TIMING
           </li>
           <li class="">
            unsigned
            <span class="keyword">
             int
            </span>
            library_time =
            <span class="number">
             0
            </span>
            ;
           </li>
           <li class="alt">
            #endif
           </li>
           <li class="">
            <span class="comment">
             /** mystrcmp()
            </span>
           </li>
           <li class="alt">
            <span class="comment">
             * Comparison function to compare 2 words
            </span>
           </li>
           <li class="">
            <span class="comment">
             */
            </span>
           </li>
           <li class="alt">
            <span class="keyword">
             int
            </span>
            mystrcmp(
            <span class="keyword">
             const
            </span>
            <span class="keyword">
             void
            </span>
            *s1,
            <span class="keyword">
             const
            </span>
            <span class="keyword">
             void
            </span>
            *s2)
           </li>
           <li class="">
            {
           </li>
           <li class="alt">
            <span class="keyword">
             return
            </span>
            strcmp((
            <span class="keyword">
             const
            </span>
            <span class="keyword">
             char
            </span>
            *)s1, (
            <span class="keyword">
             const
            </span>
            <span class="keyword">
             char
            </span>
            *) s2);
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            <span class="comment">
             /** mykeyvalcmp()
            </span>
           </li>
           <li class="">
            <span class="comment">
             * Comparison function to compare 2 ints
            </span>
           </li>
           <li class="alt">
            <span class="comment">
             */
            </span>
           </li>
           <li class="">
            <span class="keyword">
             int
            </span>
            mykeyvalcmp(
            <span class="keyword">
             const
            </span>
            <span class="keyword">
             void
            </span>
            *v1,
            <span class="keyword">
             const
            </span>
            <span class="keyword">
             void
            </span>
            *v2)
           </li>
           <li class="alt">
            {
           </li>
           <li class="">
            keyval_t* kv1 = (keyval_t*)v1;
           </li>
           <li class="alt">
            keyval_t* kv2 = (keyval_t*)v2;
           </li>
           <li class="">
            intptr_t *i1 = kv1-&gt;val;
           </li>
           <li class="alt">
            intptr_t *i2 = kv2-&gt;val;
           </li>
           <li class="">
            <span class="keyword">
             if
            </span>
            (i1 &lt; i2)
            <span class="keyword">
             return
            </span>
            <span class="number">
             1
            </span>
            ;
           </li>
           <li class="alt">
            <span class="keyword">
             else
            </span>
            <span class="keyword">
             if
            </span>
            (i1 &gt; i2)
            <span class="keyword">
             return
            </span>
            –
            <span class="number">
             1
            </span>
            ;
           </li>
           <li class="">
            <span class="keyword">
             else
            </span>
            {
           </li>
           <li class="alt">
            <span class="keyword">
             return
            </span>
            strcmp((
            <span class="keyword">
             char
            </span>
            *)kv1-&gt;key, (
            <span class="keyword">
             char
            </span>
            *)kv2-&gt;key);
           </li>
           <li class="">
            <span class="comment">
             //return 0;
            </span>
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            <span class="comment">
             /** wordcount_分割器 ()
            </span>
           </li>
           <li class="">
            <span class="comment">
             * 内存里面进行 Map 计算
            </span>
           </li>
           <li class="alt">
            <span class="comment">
             */
            </span>
           </li>
           <li class="">
            <span class="keyword">
             int
            </span>
            wordcount_splitter(
            <span class="keyword">
             void
            </span>
            *data_in,
            <span class="keyword">
             int
            </span>
            req_units, map_args_t *out)
           </li>
           <li class="alt">
            {
           </li>
           <li class="">
            wc_data_t * data = (wc_data_t *)data_in;
           </li>
           <li class="alt">
            <span class="keyword">
             assert
            </span>
            (data_in);
           </li>
           <li class="">
            <span class="keyword">
             assert
            </span>
            (out);
           </li>
           <li class="alt">
            <span class="keyword">
             assert
            </span>
            (data-&gt;flen &gt;=
            <span class="number">
             0
            </span>
            );
           </li>
           <li class="">
            <span class="keyword">
             assert
            </span>
            (data-&gt;fdata);
           </li>
           <li class="alt">
            <span class="keyword">
             assert
            </span>
            (req_units);
           </li>
           <li class="">
            <span class="keyword">
             assert
            </span>
            (data-&gt;fpos &gt;=
            <span class="number">
             0
            </span>
            );
           </li>
           <li class="alt">
            <span class="comment">
             // End of file reached, return FALSE for no more data
            </span>
           </li>
           <li class="">
            <span class="keyword">
             if
            </span>
            (data-&gt;fpos &gt;= data-&gt;flen)
            <span class="keyword">
             return
            </span>
            <span class="number">
             0
            </span>
            ;
           </li>
           <li class="alt">
            <span class="comment">
             // Set the start of the next data
            </span>
           </li>
           <li class="">
            out-&gt;data = (
            <span class="keyword">
             void
            </span>
            *)&amp;data-&gt;fdata[data-&gt;fpos];
           </li>
           <li class="alt">
            <span class="comment">
             // Determine the nominal length
            </span>
           </li>
           <li class="">
            out-&gt;length = req_units * data-&gt;unit_size;
           </li>
           <li class="alt">
            <span class="keyword">
             if
            </span>
            (data-&gt;fpos + out-&gt;length &gt; data-&gt;flen)
           </li>
           <li class="">
            out-&gt;length = data-&gt;flen – data-&gt;fpos;
           </li>
           <li class="alt">
            <span class="comment">
             // Set the length to end at a space
            </span>
           </li>
           <li class="">
            <span class="keyword">
             for
            </span>
            (data-&gt;fpos += (
            <span class="keyword">
             long
            </span>
            )out-&gt;length;
           </li>
           <li class="alt">
            data-&gt;fpos &lt; data-&gt;flen &amp;&amp;
           </li>
           <li class="">
            data-&gt;fdata[data-&gt;fpos] !=
            <span class="string">
             ‘ ‘
            </span>
            &amp;&amp; data-&gt;fdata[data-&gt;fpos] !=
            <span class="string">
             ‘\t’
            </span>
            &amp;&amp;
           </li>
           <li class="alt">
            data-&gt;fdata[data-&gt;fpos] !=
            <span class="string">
             ‘\r’
            </span>
            &amp;&amp; data-&gt;fdata[data-&gt;fpos] !=
            <span class="string">
             ‘\n’
            </span>
            ;
           </li>
           <li class="">
            data-&gt;fpos++, out-&gt;length++);
           </li>
           <li class="alt">
            <span class="keyword">
             return
            </span>
            <span class="number">
             1
            </span>
            ;
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            <span class="comment">
             /** wordcount_locator()
            </span>
           </li>
           <li class="">
            <span class="comment">
             * Return the memory address where this map task would heavily access.
            </span>
           </li>
           <li class="alt">
            <span class="comment">
             */
            </span>
           </li>
           <li class="">
            <span class="keyword">
             void
            </span>
            *wordcount_locator (map_args_t *task)
           </li>
           <li class="alt">
            {
           </li>
           <li class="">
            <span class="keyword">
             assert
            </span>
            (task);
           </li>
           <li class="alt">
            <span class="keyword">
             return
            </span>
            task-&gt;data;
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            <span class="comment">
             /** wordcount_map()
            </span>
           </li>
           <li class="">
            <span class="comment">
             * 对文本进行计数
            </span>
           </li>
           <li class="alt">
            <span class="comment">
             */
            </span>
           </li>
           <li class="">
            <span class="keyword">
             void
            </span>
            wordcount_map(map_args_t *args)
           </li>
           <li class="alt">
            {
           </li>
           <li class="">
            <span class="keyword">
             char
            </span>
            *curr_start, curr_ltr;
           </li>
           <li class="alt">
            <span class="keyword">
             int
            </span>
            state = NOT_IN_WORD;
           </li>
           <li class="">
            <span class="keyword">
             int
            </span>
            i;
           </li>
           <li class="alt">
            <span class="keyword">
             assert
            </span>
            (args);
           </li>
           <li class="">
            <span class="keyword">
             char
            </span>
            *data = (
            <span class="keyword">
             char
            </span>
            *)args-&gt;data;
           </li>
           <li class="alt">
            <span class="keyword">
             assert
            </span>
            (data);
           </li>
           <li class="">
            curr_start = data;
           </li>
           <li class="alt">
            <span class="keyword">
             for
            </span>
            (i =
            <span class="number">
             0
            </span>
            ; i &lt; args-&gt;length; i++)
           </li>
           <li class="">
            {
           </li>
           <li class="alt">
            curr_ltr = toupper(data[i]);
           </li>
           <li class="">
            <span class="keyword">
             switch
            </span>
            (state)
           </li>
           <li class="alt">
            {
           </li>
           <li class="">
            <span class="keyword">
             case
            </span>
            IN_WORD:
           </li>
           <li class="alt">
            data[i] = curr_ltr;
           </li>
           <li class="">
            <span class="keyword">
             if
            </span>
            ((curr_ltr &lt;
            <span class="string">
             ‘A’
            </span>
            || curr_ltr &gt;
            <span class="string">
             ‘Z’
            </span>
            ) &amp;&amp; curr_ltr !=
            <span class="string">
             ‘\”
            </span>
            )
           </li>
           <li class="alt">
            {
           </li>
           <li class="">
            data[i] =
            <span class="number">
             0
            </span>
            ;
           </li>
           <li class="alt">
            emit_intermediate(curr_start, (
            <span class="keyword">
             void
            </span>
            *)
            <span class="number">
             1
            </span>
            , &amp;data[i] – curr_start +
            <span class="number">
             1
            </span>
            );
           </li>
           <li class="">
            state = NOT_IN_WORD;
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            <span class="keyword">
             break
            </span>
            ;
           </li>
           <li class="alt">
            <span class="keyword">
             default
            </span>
            :
           </li>
           <li class="">
            <span class="keyword">
             case
            </span>
            NOT_IN_WORD:
           </li>
           <li class="alt">
            <span class="keyword">
             if
            </span>
            (curr_ltr &gt;=
            <span class="string">
             ‘A’
            </span>
            &amp;&amp; curr_ltr &lt;=
            <span class="string">
             ‘Z’
            </span>
            )
           </li>
           <li class="">
            {
           </li>
           <li class="alt">
            curr_start = &amp;data[i];
           </li>
           <li class="">
            data[i] = curr_ltr;
           </li>
           <li class="alt">
            state = IN_WORD;
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            <span class="keyword">
             break
            </span>
            ;
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            <span class="comment">
             // Add the last word
            </span>
           </li>
           <li class="alt">
            <span class="keyword">
             if
            </span>
            (state == IN_WORD)
           </li>
           <li class="">
            {
           </li>
           <li class="alt">
            data[args-&gt;length] =
            <span class="number">
             0
            </span>
            ;
           </li>
           <li class="">
            emit_intermediate(curr_start, (
            <span class="keyword">
             void
            </span>
            *)
            <span class="number">
             1
            </span>
            , &amp;data[i] – curr_start +
            <span class="number">
             1
            </span>
            );
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            <span class="comment">
             /** wordcount_reduce()
            </span>
           </li>
           <li class="">
            <span class="comment">
             * 计算字符
            </span>
           </li>
           <li class="alt">
            <span class="comment">
             */
            </span>
           </li>
           <li class="">
            <span class="keyword">
             void
            </span>
            wordcount_reduce(
            <span class="keyword">
             void
            </span>
            *key_in, iterator_t *itr)
           </li>
           <li class="alt">
            {
           </li>
           <li class="">
            <span class="keyword">
             char
            </span>
            *key = (
            <span class="keyword">
             char
            </span>
            *)key_in;
           </li>
           <li class="alt">
            <span class="keyword">
             void
            </span>
            *val;
           </li>
           <li class="">
            intptr_t sum =
            <span class="number">
             0
            </span>
            ;
           </li>
           <li class="alt">
            <span class="keyword">
             assert
            </span>
            (key);
           </li>
           <li class="">
            <span class="keyword">
             assert
            </span>
            (itr);
           </li>
           <li class="alt">
            <span class="keyword">
             while
            </span>
            (iter_next (itr, &amp;val))
           </li>
           <li class="">
            {
           </li>
           <li class="alt">
            sum += (intptr_t)val;
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            emit(key, (
            <span class="keyword">
             void
            </span>
            *)sum);
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            <span class="keyword">
             void
            </span>
            *wordcount_combiner (iterator_t *itr)
           </li>
           <li class="">
            {
           </li>
           <li class="alt">
            <span class="keyword">
             void
            </span>
            *val;
           </li>
           <li class="">
            intptr_t sum =
            <span class="number">
             0
            </span>
            ;
           </li>
           <li class="alt">
            <span class="keyword">
             assert
            </span>
            (itr);
           </li>
           <li class="">
            <span class="keyword">
             while
            </span>
            (iter_next (itr, &amp;val))
           </li>
           <li class="alt">
            {
           </li>
           <li class="">
            sum += (intptr_t)val;
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            <span class="keyword">
             return
            </span>
            (
            <span class="keyword">
             void
            </span>
            *)sum;
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            <span class="keyword">
             int
            </span>
            main(
            <span class="keyword">
             int
            </span>
            argc,
            <span class="keyword">
             char
            </span>
            *argv[])
           </li>
           <li class="alt">
            {
           </li>
           <li class="">
            final_data_t wc_vals;
           </li>
           <li class="alt">
            <span class="keyword">
             int
            </span>
            i;
           </li>
           <li class="">
            <span class="keyword">
             int
            </span>
            fd;
           </li>
           <li class="alt">
            <span class="keyword">
             char
            </span>
            * fdata;
           </li>
           <li class="">
            <span class="keyword">
             int
            </span>
            disp_num;
           </li>
           <li class="alt">
            struct stat finfo;
           </li>
           <li class="">
            <span class="keyword">
             char
            </span>
            * fname, * disp_num_str;
           </li>
           <li class="alt">
            struct timeval starttime,endtime;
           </li>
           <li class="">
            get_time (&amp;begin);
           </li>
           <li class="alt">
            <span class="comment">
             // 确保文件名
            </span>
           </li>
           <li class="">
            <span class="keyword">
             if
            </span>
            (argv[
            <span class="number">
             1
            </span>
            ] == NULL)
           </li>
           <li class="alt">
            {
           </li>
           <li class="">
            printf(
            <span class="string">
             “USAGE: %s &lt;filename&gt; [Top # of results to display]\n”
            </span>
            , argv[
            <span class="number">
             0
            </span>
            ]);
           </li>
           <li class="alt">
            exit(
            <span class="number">
             1
            </span>
            );
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            fname = argv[
            <span class="number">
             1
            </span>
            ];
           </li>
           <li class="">
            disp_num_str = argv[
            <span class="number">
             2
            </span>
            ];
           </li>
           <li class="alt">
            printf(
            <span class="string">
             “Wordcount: Running…\n”
            </span>
            );
           </li>
           <li class="">
            <span class="comment">
             // 读取文件
            </span>
           </li>
           <li class="alt">
            CHECK_ERROR((fd = open(fname, O_RDONLY)) &lt;
            <span class="number">
             0
            </span>
            );
           </li>
           <li class="">
            <span class="comment">
             // Get the file info (for file length)
            </span>
           </li>
           <li class="alt">
            CHECK_ERROR(fstat(fd, &amp;finfo) &lt;
            <span class="number">
             0
            </span>
            );
           </li>
           <li class="">
            #ifndef NO_MMAP
           </li>
           <li class="alt">
            <span class="comment">
             // 内存里面开始调用 map
            </span>
           </li>
           <li class="">
            CHECK_ERROR((fdata = mmap(
            <span class="number">
             0
            </span>
            , finfo.st_size +
            <span class="number">
             1
            </span>
            ,
           </li>
           <li class="alt">
            PROT_READ | PROT_WRITE, MAP_PRIVATE, fd,
            <span class="number">
             0
            </span>
            )) == NULL);
           </li>
           <li class="">
            #
            <span class="keyword">
             else
            </span>
           </li>
           <li class="alt">
            <span class="keyword">
             int
            </span>
            ret;
           </li>
           <li class="">
            fdata = (
            <span class="keyword">
             char
            </span>
            *)malloc (finfo.st_size);
           </li>
           <li class="alt">
            CHECK_ERROR (fdata == NULL);
           </li>
           <li class="">
            ret = read (fd, fdata, finfo.st_size);
           </li>
           <li class="alt">
            CHECK_ERROR (ret != finfo.st_size);
           </li>
           <li class="">
            #endif
           </li>
           <li class="alt">
            CHECK_ERROR((disp_num = (disp_num_str == NULL) ?
           </li>
           <li class="">
            DEFAULT_DISP_NUM : atoi(disp_num_str)) &lt;=
            <span class="number">
             0
            </span>
            );
           </li>
           <li class="alt">
            wc_data_t wc_data;
           </li>
           <li class="">
            wc_data.unit_size =
            <span class="number">
             5
            </span>
            ;
            <span class="comment">
             // approx 5 bytes per word
            </span>
           </li>
           <li class="alt">
            wc_data.fpos =
            <span class="number">
             0
            </span>
            ;
           </li>
           <li class="">
            wc_data.flen = finfo.st_size;
           </li>
           <li class="alt">
            wc_data.fdata = fdata;
           </li>
           <li class="">
            CHECK_ERROR (map_reduce_init ());
           </li>
           <li class="alt">
            map_reduce_args_t map_reduce_args;
           </li>
           <li class="">
            memset(&amp;map_reduce_args,
            <span class="number">
             0
            </span>
            , sizeof(map_reduce_args_t));
           </li>
           <li class="alt">
            map_reduce_args.task_data = &amp;wc_data;
           </li>
           <li class="">
            map_reduce_args.map = wordcount_map;
           </li>
           <li class="alt">
            map_reduce_args.reduce = wordcount_reduce;
           </li>
           <li class="">
            map_reduce_args.combiner = wordcount_combiner;
           </li>
           <li class="alt">
            map_reduce_args.splitter = wordcount_splitter;
           </li>
           <li class="">
            map_reduce_args.locator = wordcount_locator;
           </li>
           <li class="alt">
            map_reduce_args.key_cmp = mystrcmp;
           </li>
           <li class="">
            map_reduce_args.unit_size = wc_data.unit_size;
           </li>
           <li class="alt">
            map_reduce_args.partition = NULL;
            <span class="comment">
             // use default
            </span>
           </li>
           <li class="">
            map_reduce_args.result = &amp;wc_vals;
           </li>
           <li class="alt">
            map_reduce_args.data_size = finfo.st_size;
           </li>
           <li class="">
            map_reduce_args.L1_cache_size = atoi(GETENV(
            <span class="string">
             “MR_L1CACHESIZE”
            </span>
            ));
            <span class="comment">
             //1024 * 1024 * 2;
            </span>
           </li>
           <li class="alt">
            map_reduce_args.num_map_threads = atoi(GETENV(
            <span class="string">
             “MR_NUMTHREADS”
            </span>
            ));
            <span class="comment">
             //8;
            </span>
           </li>
           <li class="">
            map_reduce_args.num_reduce_threads = atoi(GETENV(
            <span class="string">
             “MR_NUMTHREADS”
            </span>
            ));
            <span class="comment">
             //16;
            </span>
           </li>
           <li class="alt">
            map_reduce_args.num_merge_threads = atoi(GETENV(
            <span class="string">
             “MR_NUMTHREADS”
            </span>
            ));
            <span class="comment">
             //8;
            </span>
           </li>
           <li class="">
            map_reduce_args.num_procs = atoi(GETENV(
            <span class="string">
             “MR_NUMPROCS”
            </span>
            ));
            <span class="comment">
             //16;
            </span>
           </li>
           <li class="alt">
            map_reduce_args.key_match_factor = (
            <span class="keyword">
             float
            </span>
            )atof(GETENV(
            <span class="string">
             “MR_KEYMATCHFACTOR”
            </span>
            ));
            <span class="comment">
             //2;
            </span>
           </li>
           <li class="">
            printf(
            <span class="string">
             “Wordcount: Calling MapReduce Scheduler Wordcount\n”
            </span>
            );
           </li>
           <li class="alt">
            gettimeofday(&amp;starttime,
            <span class="number">
             0
            </span>
            );
           </li>
           <li class="">
            get_time (&amp;end);
           </li>
           <li class="alt">
            #ifdef TIMING
           </li>
           <li class="">
            fprintf (stderr,
            <span class="string">
             “initialize: %u\n”
            </span>
            , time_diff (&amp;end, &amp;begin));
           </li>
           <li class="alt">
            #endif
           </li>
           <li class="">
            get_time (&amp;begin);
           </li>
           <li class="alt">
            CHECK_ERROR(map_reduce (&amp;map_reduce_args) &lt;
            <span class="number">
             0
            </span>
            );
           </li>
           <li class="">
            get_time (&amp;end);
           </li>
           <li class="alt">
            #ifdef TIMING
           </li>
           <li class="">
            library_time += time_diff (&amp;end, &amp;begin);
           </li>
           <li class="alt">
            #endif
           </li>
           <li class="">
            get_time (&amp;begin);
           </li>
           <li class="alt">
            gettimeofday(&amp;endtime,
            <span class="number">
             0
            </span>
            );
           </li>
           <li class="">
            printf(
            <span class="string">
             “Wordcount: Completed %ld\n”
            </span>
            ,(endtime.tv_sec – starttime.tv_sec));
           </li>
           <li class="alt">
            printf(
            <span class="string">
             “Wordcount: MapReduce Completed\n”
            </span>
            );
           </li>
           <li class="">
            printf(
            <span class="string">
             “Wordcount: Calling MapReduce Scheduler Sort\n”
            </span>
            );
           </li>
           <li class="alt">
            mapreduce_sort(wc_vals.data, wc_vals.length, sizeof(keyval_t), mykeyvalcmp);
           </li>
           <li class="">
            CHECK_ERROR (map_reduce_finalize ());
           </li>
           <li class="alt">
            printf(
            <span class="string">
             “Wordcount: MapReduce Completed\n”
            </span>
            );
           </li>
           <li class="">
            dprintf(
            <span class="string">
             “\nWordcount: Results (TOP %d):\n”
            </span>
            , disp_num);
           </li>
           <li class="alt">
            <span class="keyword">
             for
            </span>
            (i =
            <span class="number">
             0
            </span>
            ; i &lt; disp_num &amp;&amp; i &lt; wc_vals.length; i++)
           </li>
           <li class="">
            {
           </li>
           <li class="alt">
            keyval_t * curr = &amp;((keyval_t *)wc_vals.data)[i];
           </li>
           <li class="">
            dprintf(
            <span class="string">
             “s – %”
            </span>
            PRIdPTR
            <span class="string">
             “\n”
            </span>
            , (
            <span class="keyword">
             char
            </span>
            *)curr-&gt;key, (intptr_t)curr-&gt;val);
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            free(wc_vals.data);
           </li>
           <li class="alt">
            #ifndef NO_MMAP
           </li>
           <li class="">
            CHECK_ERROR(munmap(fdata, finfo.st_size +
            <span class="number">
             1
            </span>
            ) &lt;
            <span class="number">
             0
            </span>
            );
           </li>
           <li class="alt">
            #
            <span class="keyword">
             else
            </span>
           </li>
           <li class="">
            free (fdata);
           </li>
           <li class="alt">
            #endif
           </li>
           <li class="">
            CHECK_ERROR(close(fd) &lt;
            <span class="number">
             0
            </span>
            );
           </li>
           <li class="alt">
            get_time (&amp;end);
           </li>
           <li class="">
            #ifdef TIMING
           </li>
           <li class="alt">
            fprintf (stderr,
            <span class="string">
             “finalize: %u\n”
            </span>
            , time_diff (&amp;end, &amp;begin));
           </li>
           <li class="">
            #endif
           </li>
           <li class="alt">
            <span class="keyword">
             return
            </span>
            <span class="number">
             0
            </span>
            ;
           </li>
           <li class="">
            }
           </li>
          </ol>
         </div>
        </div>
        <h5>
         Mars MapReduce
        </h5>
        <p>
         Mars 框架中，Map 和 Reduce 的处理阶段都在 GPU 内进行，Map 和 Reduce 的分割数据阶段都在 CPU 内进行，这是与其他基于 CPU 的 MapReduce 框架的最大不同。Mars 更多的是利用 CPU、GPU 缓存来替代内存，执行数据分割、处理过程。
        </p>
        <p>
         具体的 Word count 的流程如下所示：
        </p>
        <ol>
         <li>
          准备 key/value 键值对，将这些键值对存储在数组里面；
         </li>
         <li>
          初始化 MapReduce 上下文，设置参数 (根据不同的 GPU 需要根据 CUDA 核心数目设置并发线程数)；
         </li>
         <li>
          数据预处理，首先打开文件，将文件所有内容读入内存，然后申请一块同文件大小的显存，将文件内容中小写字符转为大写 (这样的影响 word,Word 算通一个单词)。
         </li>
         <li>
          开始 MapReduce 阶段。根据并发线程数和文件大写切换内存中的文件，每块切分后的任务记录下该任务在内存中的偏移位置和长度视为 value, 显存的指针地址视为 key，将任务添加的任务池。将处理后的内存内容复制到刚刚申请的显存中。接着开始 Map 流程，将内存中的任务池复制到显存，申请显存块用于存放 Map 产生的数据，开启多线程并发执行用户定义的 map 流程 MAP_COUNT_FUNC，这个是 Mars 由于 GPU 程序的特殊性而设计的，用于记录 map 产生的 key 和 value 的长度 (sizeof)。调用 MAP_FUNC 方法，输入任务记录，输出单词以及单词所在的位置；
         </li>
         <li>
          如果 noSort 是 F，对结果排序；
         </li>
         <li>
          如果 noReduce 是 F，GPU 开始 reduce 阶段，生成最终的结果集。否则，立即输出最后的结果集；
         </li>
         <li>
          结果输出，从 GPU 设备拷贝最终的结果集到内存，然后输出到屏幕。
         </li>
        </ol>
        <h5>
         通过上述的 7 个步骤，WordCount 的计算过程全部完成并且输出结果集。
        </h5>
        <h5>
         清单 7 . Mars 的 Map 程序段
        </h5>
        <div>
         <div class="dp-highlighter bg_java">
          <div class="bar">
           <div class="tools">
            <b>
             [java]
            </b>
            <a class="ViewSource" href="http://www.csdn.net/article/2015-07-15/2825216" title="view plain">
             view plain
            </a>
            <a class="CopyToClipboard" href="http://www.csdn.net/article/2015-07-15/2825216" title="copy">
             copy
            </a>
            <p>
            </p>
            <div>
             <embed align="middle" height="18" id="ZeroClipboardMovie_7" name="ZeroClipboardMovie_7" src="http://csdnimg.cn/public/highlighter/ZeroClipboard.swf?e8a7c9a" type="application/x-shockwave-flash" width="18">
             </embed>
            </div>
           </div>
          </div>
          <ol class="dp-j" start="1">
           <li class="alt">
            #ifndef __MAP_CU__
           </li>
           <li class="">
            #define __MAP_CU__
           </li>
           <li class="alt">
            #include
            <span class="string">
             “MarsInc.h”
            </span>
           </li>
           <li class="">
            #include
            <span class="string">
             “global.h”
            </span>
           </li>
           <li class="alt">
            __device__
            <span class="keyword">
             int
            </span>
            hash_func(
            <span class="keyword">
             char
            </span>
            * str,
            <span class="keyword">
             int
            </span>
            len)
           </li>
           <li class="">
            {
           </li>
           <li class="alt">
            <span class="keyword">
             int
            </span>
            hash, i;
           </li>
           <li class="">
            <span class="keyword">
             for
            </span>
            (i =
            <span class="number">
             0
            </span>
            , hash=len; i &lt; len; i++)
           </li>
           <li class="alt">
            hash = (hash&lt;&lt;
            <span class="number">
             4
            </span>
            )^(hash&gt;&gt;
            <span class="number">
             28
            </span>
            )^str[i];
           </li>
           <li class="">
            <span class="keyword">
             return
            </span>
            hash;
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            __device__
            <span class="keyword">
             void
            </span>
            MAP_COUNT_FUNC
            <span class="comment">
             //(void *key, void *val, size_t keySize, size_t valSize)
            </span>
           </li>
           <li class="alt">
            {
           </li>
           <li class="">
            WC_KEY_T* pKey = (WC_KEY_T*)key;
           </li>
           <li class="alt">
            WC_VAL_T* pVal = (WC_VAL_T*)val;
           </li>
           <li class="">
            <span class="keyword">
             char
            </span>
            * ptrBuf = pKey-&gt;file + pVal-&gt;line_offset;
           </li>
           <li class="alt">
            <span class="keyword">
             int
            </span>
            line_size = pVal-&gt;line_size;
           </li>
           <li class="">
            <span class="keyword">
             char
            </span>
            * p = ptrBuf;
           </li>
           <li class="alt">
            <span class="keyword">
             int
            </span>
            lsize =
            <span class="number">
             0
            </span>
            ;
           </li>
           <li class="">
            <span class="keyword">
             int
            </span>
            wsize =
            <span class="number">
             0
            </span>
            ;
           </li>
           <li class="alt">
            <span class="keyword">
             char
            </span>
            * start = ptrBuf;
           </li>
           <li class="">
            <span class="keyword">
             while
            </span>
            (
            <span class="number">
             1
            </span>
            )
           </li>
           <li class="alt">
            {
           </li>
           <li class="">
            <span class="keyword">
             for
            </span>
            (; *p &gt;=
            <span class="string">
             ‘A’
            </span>
            &amp;&amp; *p &lt;=
            <span class="string">
             ‘Z’
            </span>
            ; p++, lsize++);
           </li>
           <li class="alt">
            *p =
            <span class="string">
             ‘\0’
            </span>
            ;
           </li>
           <li class="">
            ++p;
           </li>
           <li class="alt">
            ++lsize;
           </li>
           <li class="">
            wsize = (
            <span class="keyword">
             int
            </span>
            )(p – start);
           </li>
           <li class="alt">
            <span class="keyword">
             if
            </span>
            (wsize &gt;
            <span class="number">
             6
            </span>
            )
           </li>
           <li class="">
            {
           </li>
           <li class="alt">
            <span class="comment">
             //printf(“%s, wsize:%d\n”, start, wsize);
            </span>
           </li>
           <li class="">
            EMIT_INTER_COUNT_FUNC(wsize, sizeof(
            <span class="keyword">
             int
            </span>
            ));
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            <span class="keyword">
             for
            </span>
            (; (lsize &lt; line_size) &amp;&amp; (*p &lt;
            <span class="string">
             ‘A’
            </span>
            || *p &gt;
            <span class="string">
             ‘Z’
            </span>
            ); p++, lsize++);
           </li>
           <li class="alt">
            <span class="keyword">
             if
            </span>
            (lsize &gt;= line_size)
            <span class="keyword">
             break
            </span>
            ;
           </li>
           <li class="">
            start = p;
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            __device__
            <span class="keyword">
             void
            </span>
            MAP_FUNC
            <span class="comment">
             //(void *key, void val, size_t keySize, size_t valSize)
            </span>
           </li>
           <li class="">
            {
           </li>
           <li class="alt">
            WC_KEY_T* pKey = (WC_KEY_T*)key;
           </li>
           <li class="">
            WC_VAL_T* pVal = (WC_VAL_T*)val;
           </li>
           <li class="alt">
            <span class="keyword">
             char
            </span>
            * filebuf = pKey-&gt;file;
           </li>
           <li class="">
            <span class="keyword">
             char
            </span>
            * ptrBuf = filebuf + pVal-&gt;line_offset;
           </li>
           <li class="alt">
            <span class="keyword">
             int
            </span>
            line_size = pVal-&gt;line_size;
           </li>
           <li class="">
            <span class="keyword">
             char
            </span>
            * p = ptrBuf;
           </li>
           <li class="alt">
            <span class="keyword">
             char
            </span>
            * start = ptrBuf;
           </li>
           <li class="">
            <span class="keyword">
             int
            </span>
            lsize =
            <span class="number">
             0
            </span>
            ;
           </li>
           <li class="alt">
            <span class="keyword">
             int
            </span>
            wsize =
            <span class="number">
             0
            </span>
            ;
           </li>
           <li class="">
            <span class="keyword">
             while
            </span>
            (
            <span class="number">
             1
            </span>
            )
           </li>
           <li class="alt">
            {
           </li>
           <li class="">
            <span class="keyword">
             for
            </span>
            (; *p &gt;=
            <span class="string">
             ‘A’
            </span>
            &amp;&amp; *p &lt;=
            <span class="string">
             ‘Z’
            </span>
            ; p++, lsize++);
           </li>
           <li class="alt">
            *p =
            <span class="string">
             ‘\0’
            </span>
            ;
           </li>
           <li class="">
            ++p;
           </li>
           <li class="alt">
            ++lsize;
           </li>
           <li class="">
            wsize = (
            <span class="keyword">
             int
            </span>
            )(p – start);
           </li>
           <li class="alt">
            <span class="keyword">
             int
            </span>
            * o_val = (
            <span class="keyword">
             int
            </span>
            *)GET_OUTPUT_BUF(
            <span class="number">
             0
            </span>
            );
           </li>
           <li class="">
            *o_val = wsize;
           </li>
           <li class="alt">
            <span class="keyword">
             if
            </span>
            (wsize &gt;
            <span class="number">
             6
            </span>
            )
           </li>
           <li class="">
            {
           </li>
           <li class="alt">
            <span class="comment">
             //printf(“%s, %d\n”, start, wsize);
            </span>
           </li>
           <li class="">
            EMIT_INTERMEDIATE_FUNC(start, o_val, wsize, sizeof(
            <span class="keyword">
             int
            </span>
            ));
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            <span class="keyword">
             for
            </span>
            (; (lsize &lt; line_size) &amp;&amp; (*p &lt;
            <span class="string">
             ‘A’
            </span>
            || *p &gt;
            <span class="string">
             ‘Z’
            </span>
            ); p++, lsize++);
           </li>
           <li class="alt">
            <span class="keyword">
             if
            </span>
            (lsize &gt;= line_size)
            <span class="keyword">
             break
            </span>
            ;
           </li>
           <li class="">
            start = p;
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            #endif
            <span class="comment">
             //__MAP_CU__
            </span>
           </li>
          </ol>
         </div>
        </div>
        <h5>
         清单 8 . Mars 的 Reduce 程序段
        </h5>
        <div>
         <div class="dp-highlighter bg_java">
          <div class="bar">
           <div class="tools">
            <b>
             [java]
            </b>
            <a class="ViewSource" href="http://www.csdn.net/article/2015-07-15/2825216" title="view plain">
             view plain
            </a>
            <a class="CopyToClipboard" href="http://www.csdn.net/article/2015-07-15/2825216" title="copy">
             copy
            </a>
            <p>
            </p>
            <div>
             <embed align="middle" height="18" id="ZeroClipboardMovie_8" name="ZeroClipboardMovie_8" src="http://csdnimg.cn/public/highlighter/ZeroClipboard.swf?e8a7c9a" type="application/x-shockwave-flash" width="18">
             </embed>
            </div>
           </div>
          </div>
          <ol class="dp-j" start="1">
           <li class="alt">
            #ifndef __REDUCE_CU__
           </li>
           <li class="">
            #define __REDUCE_CU__
           </li>
           <li class="alt">
            #include
            <span class="string">
             “MarsInc.h”
            </span>
           </li>
           <li class="">
            __device__
            <span class="keyword">
             void
            </span>
            REDUCE_COUNT_FUNC
            <span class="comment">
             //(void* key, void* vals, size_t keySize, size_t valCount)
            </span>
           </li>
           <li class="alt">
            {
           </li>
           <li class="">
            }
           </li>
           <li class="alt">
            __device__
            <span class="keyword">
             void
            </span>
            REDUCE_FUNC
            <span class="comment">
             //(void* key, void* vals, size_t keySize, size_t valCount)
            </span>
           </li>
           <li class="">
            {
           </li>
           <li class="alt">
            }
           </li>
           <li class="">
            #endif
            <span class="comment">
             //__REDUCE_CU__
            </span>
           </li>
          </ol>
         </div>
        </div>
        <h5>
         五种框架 WordCount 实验性能对比
        </h5>
        <div>
         <img src="http://img.ptcms.csdn.net/article/201507/15/55a620c5844c2_middle.jpg?_=35458"/>
        </div>
        <h5>
         图 9 . 实验运行时间比较图
        </h5>
        <p>
         图 9 实验运行时间比较图是分析不同大小的文本文件所消耗的时间对比图。从上图可以看出，Hadoop MapReduce 的运行时间最长，原因是 Hadoop 生态环境包含内容过多，所以每次任务启动时首先需要加载所需资源包，然后缓慢地发起任务，并且由于本身是用性能较差的 Java 语言编写的，所以导致整体计算时间长、性能差。Phoenix 由于采用汇编和 C 语言编写，内核很小，运行时所用资源很少，所以整个测试过程耗时也较少。Spark 框架在 WordCount 实验中消耗的时长较 Disco 稍少，但是比 Phoenix、Mars 耗时太多。耗时最短的两个框架是 Mars 和 Phoenix。需要时长从高到低分别是 Hadoop MapReduce、Disco、Spark、Phoenix、Mars。
        </p>
        <p>
         <img src="http://img.ptcms.csdn.net/article/201507/15/55a62174733fc_middle.jpg?_=15450"/>
        </p>
        <h5>
         图 10 .CPU 使用率对比图
        </h5>
        <p>
         图 10-CPU 使用率比较图是分析任务执行过程当中 CPU 使用率情况图。从上图可以看出，Hadoop MapReduce、Disco 这两个框架需要占用的 CPU 资源在 1000M 文本处理时基本到达最大饱和度 (大于 90%)，Apache Spark 的 CPU 使用率没有完全伴随着文本文件增大而大幅上涨，Phoenix 和 Mars 基本控制在对 CPU 使用率较低的范围内。
        </p>
        <p>
         <img src="http://img.ptcms.csdn.net/article/201507/15/55a621be77ec2_middle.jpg?_=22500"/>
        </p>
        <h5>
         图 11 . 内存使用率对比图
        </h5>
        <p>
         图 11 内存使用率比较图是分析任务执行过程中内存使用情况对比。从图中可以看出，Mars 和 Phoenix 这两款框架所使用的内存在文本数据较小时是最少的，随着文本数据的增大，Apache Spark 随着数据量增大而内存大幅增加，Mars 和 Phoenix 有一定幅度的内存使用增加趋势。当数据量达到本次测试最大的 1000M 文本时，Spark 框架对内存的消耗是最小的，Hadoop MapReduce 和 Disco 需要占用较多的内存。
        </p>
        <p>
         从上面的测试结果我们得出，如果用户只需要处理海量的文本文件，不需要考虑存储、二次数据挖掘等，采用 Phoenix 或者 Mars 是最大性价比的选择，但是由于 Mars 必须在 GPU 上运行，本身 GPU 由于价格因素，导致不太可能在实际应用场景里推广，所以综合来看 Phoenix 是性价比最高的框架。如果应用程序需要处理的数据量非常大，并且客户希望计算出的数据可以被存储和二次计算或数据挖掘，那 Hadoop MapReduce 较好，因为整个 Hadoop 生态圈庞大，支持性很好。Apache Spark 由于架构层面设计不同，所以对于 CPU、内存的使用率一直保持较低状态，它未来可以用于海量数据分析用途。
        </p>
        <hr/>
        <h2>
         结束语
        </h2>
        <p>
         现实世界很多实例都可用 MapReduce 编程模型来表示，MapReduce 作为一个通用可扩展的、高容错性的并行处理模型，可有效地处理海量数据，不断地从中分析挖掘出有价值的信息。MapReduce 封装了并行处理、负载均衡、容错、数据本地化等技术难点细节。通过本文测试用例可以证明 MapReduce 适用于海量文本分析的应用场景，可以为处理大数据提供技术支撑。
        </p>
        <p>
         原文链接：
         <a href="http://www.ibm.com/developerworks/cn/analytics/library/ba-1507-mapreducefiveframes/index.html" target="_blank">
          五种基于 MapReduce 的并行计算框架介绍及性能测试
         </a>
        </p>
       </div>
      </div>
      <div>
       <strong>
        注：转载文章均来自于公开网络，仅供学习使用，不会用于任何商业用途，如果侵犯到原作者的权益，请您与我们联系删除或者授权事宜，联系邮箱：contact@dataunion.org。转载数盟网站文章请注明原文章作者，否则产生的任何版权纠纷与数盟无关。
       </strong>
      </div>
      <!--content_text-->
      <div class="fenxian">
       <!-- JiaThis Button BEGIN -->
       <div class="jiathis_style_32x32">
        <p class="jiathis_button_weixin">
        </p>
        <p class="jiathis_button_tsina">
        </p>
        <p class="jiathis_button_qzone">
        </p>
        <p class="jiathis_button_cqq">
        </p>
        <p class="jiathis_button_tumblr">
        </p>
        <a class="jiathis jiathis_txt jtico jtico_jiathis" href="http://www.jiathis.com/share" target="_blank">
        </a>
        <p class="jiathis_counter_style">
        </p>
       </div>
       <!-- JiaThis Button END -->
      </div>
     </article>
     <!--content-->
     <!--相关文章-->
     <div class="xianguan">
      <div class="xianguantitle">
       相关文章！
      </div>
      <ul class="pic">
       <li>
        <a href="http://dataunion.org/20824.html">
         <img src="http://dataunion.org/wp-content/uploads/2015/09/t018630756a7e263b33-300x165.jpg"/>
        </a>
        <a class="link" href="http://dataunion.org/20824.html" rel="bookmark" title="如何判断一笔交易是否属于欺诈？你只是需要一点数据挖掘">
         如何判断一笔交易是否属于欺诈？你只是需要一点数据挖掘
        </a>
       </li>
       <li>
        <a href="http://dataunion.org/20820.html">
         <img src="http://dataunion.org/wp-content/uploads/2015/09/1-300x200.jpg"/>
        </a>
        <a class="link" href="http://dataunion.org/20820.html" rel="bookmark" title="人们对Python在企业级开发中的10大误解">
         人们对Python在企业级开发中的10大误解
        </a>
       </li>
       <li>
        <a href="http://dataunion.org/20811.html">
         <img src="http://dataunion.org/wp-content/uploads/2015/09/t0133fcacae8523307b_副本-300x200.jpg"/>
        </a>
        <a class="link" href="http://dataunion.org/20811.html" rel="bookmark" title="大神亲传：26条深度学习的金科玉律！">
         大神亲传：26条深度学习的金科玉律！
        </a>
       </li>
       <li>
        <a href="http://dataunion.org/20808.html">
         <img src="http://dataunion.org/wp-content/uploads/2015/09/640.webp-11-300x137.jpg"/>
        </a>
        <a class="link" href="http://dataunion.org/20808.html" rel="bookmark" title="我们是如何在一张地图上表现86万个数据的">
         我们是如何在一张地图上表现86万个数据的
        </a>
       </li>
      </ul>
     </div>
     <!--相关文章-->
     <div class="comment" id="comments">
      <!-- You can start editing here. -->
      <!-- If comments are open, but there are no comments. -->
      <div class="title">
       期待你一针见血的评论，Come on！
      </div>
      <div id="respond">
       <p>
        不用想啦，马上
        <a href="http://dataunion.org/wp-login.php?redirect_to=http%3A%2F%2Fdataunion.org%2F20034.html">
         "登录"
        </a>
        发表自已的想法.
       </p>
      </div>
     </div>
     <!-- .nav-single -->
    </div>
    <!--Container End-->
    <aside id="sitebar">
     <div class="sitebar_list2">
      <div class="wptag">
       <span class="tagtitle">
        热门标签+
       </span>
       <div class="tagg">
        <ul class="menu" id="menu-%e5%8f%8b%e6%83%85%e9%93%be%e6%8e%a5">
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-1605" id="menu-item-1605">
          <a href="http://taidizh.com/">
           泰迪智慧
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-20884" id="menu-item-20884">
          <a href="http://www.transwarp.cn/">
           星环科技
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-3538" id="menu-item-3538">
          <a href="http://datall.org/">
           珈和遥感
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-20888" id="menu-item-20888">
          <a href="http://www.chinahadoop.cn/">
           小象学院
          </a>
         </li>
        </ul>
       </div>
      </div>
     </div>
     <div class="sitebar_list">
      <div class="textwidget">
       <div align="center">
        <a href="http://study.163.com/course/courseMain.htm?courseId=991022" target="_blank">
         <img src="http://dataunion.org/wp-content/uploads/2016/03/dv.jpg"/>
        </a>
       </div>
      </div>
     </div>
     <div class="sitebar_list">
      <h4 class="sitebar_title">
       文章分类
      </h4>
      <div class="tagcloud">
       <a class="tag-link-44" href="http://dataunion.org/category/industry/demo" style="font-size: 10.204724409449pt;" title="4个话题">
        Demo展示
       </a>
       <a class="tag-link-31" href="http://dataunion.org/category/experts" style="font-size: 15.826771653543pt;" title="52个话题">
        专家团队
       </a>
       <a class="tag-link-870" href="http://dataunion.org/category/tech/ai" style="font-size: 19.795275590551pt;" title="273个话题">
        人工智能
       </a>
       <a class="tag-link-488" href="http://dataunion.org/category/%e5%8a%a0%e5%85%a5%e6%95%b0%e7%9b%9f" style="font-size: 8pt;" title="1个话题">
        加入数盟
       </a>
       <a class="tag-link-869" href="http://dataunion.org/category/tech/viz" style="font-size: 17.204724409449pt;" title="93个话题">
        可视化
       </a>
       <a class="tag-link-30" href="http://dataunion.org/category/partners" style="font-size: 10.645669291339pt;" title="5个话题">
        合作伙伴
       </a>
       <a class="tag-link-889" href="http://dataunion.org/category/parterc" style="font-size: 11.582677165354pt;" title="8个话题">
        合作会议
       </a>
       <a class="tag-link-104" href="http://dataunion.org/category/books" style="font-size: 12.96062992126pt;" title="15个话题">
        图书
       </a>
       <a class="tag-link-220" href="http://dataunion.org/category/tech/base" style="font-size: 19.850393700787pt;" title="281个话题">
        基础架构
       </a>
       <a class="tag-link-219" href="http://dataunion.org/category/tech/analysis" style="font-size: 19.409448818898pt;" title="232个话题">
        数据分析
       </a>
       <a class="tag-link-887" href="http://dataunion.org/category/tech/dm" style="font-size: 13.291338582677pt;" title="17个话题">
        数据挖掘
       </a>
       <a class="tag-link-34" href="http://dataunion.org/category/tech" style="font-size: 20.732283464567pt;" title="404个话题">
        文章
       </a>
       <a class="tag-link-1" href="http://dataunion.org/category/uncategorized" style="font-size: 22pt;" title="693个话题">
        未分类
       </a>
       <a class="tag-link-4" href="http://dataunion.org/category/events" style="font-size: 14.503937007874pt;" title="29个话题">
        活动
       </a>
       <a class="tag-link-890" href="http://dataunion.org/category/tech/%e6%b7%b1%e5%ba%a6%e5%ad%a6%e4%b9%a0" style="font-size: 10.204724409449pt;" title="4个话题">
        深度学习
       </a>
       <a class="tag-link-221" href="http://dataunion.org/category/tech/devl" style="font-size: 18.968503937008pt;" title="193个话题">
        编程语言
       </a>
       <a class="tag-link-888" href="http://dataunion.org/category/career" style="font-size: 15.661417322835pt;" title="48个话题">
        职业规划
       </a>
       <a class="tag-link-5" href="http://dataunion.org/category/jobs" style="font-size: 14.11811023622pt;" title="25个话题">
        职位
       </a>
       <a class="tag-link-871" href="http://dataunion.org/category/industry" style="font-size: 15.716535433071pt;" title="49个话题">
        行业
       </a>
       <a class="tag-link-613" href="http://dataunion.org/category/industry/case" style="font-size: 16.984251968504pt;" title="84个话题">
        行业应用
       </a>
       <a class="tag-link-885" href="http://dataunion.org/category/industry/news" style="font-size: 17.425196850394pt;" title="102个话题">
        行业资讯
       </a>
       <a class="tag-link-10" href="http://dataunion.org/category/training" style="font-size: 14.228346456693pt;" title="26个话题">
        课程
       </a>
       <a class="tag-link-16" href="http://dataunion.org/category/sources" style="font-size: 15.661417322835pt;" title="48个话题">
        资源
       </a>
      </div>
     </div>
     <div class="sitebar_list">
      <h4 class="sitebar_title">
       功能
      </h4>
      <ul>
       <li>
        <a href="http://dataunion.org/wp-login.php?action=register">
         注册
        </a>
       </li>
       <li>
        <a href="http://dataunion.org/wp-login.php">
         登录
        </a>
       </li>
       <li>
        <a href="http://dataunion.org/feed">
         文章
         <abbr title="Really Simple Syndication">
          RSS
         </abbr>
        </a>
       </li>
       <li>
        <a href="http://dataunion.org/comments/feed">
         评论
         <abbr title="Really Simple Syndication">
          RSS
         </abbr>
        </a>
       </li>
       <li>
        <a href="https://cn.wordpress.org/" title="基于WordPress，一个优美、先进的个人信息发布平台。">
         WordPress.org
        </a>
       </li>
      </ul>
     </div>
    </aside>
    <div class="clear">
    </div>
   </div>
   <!--main-->
   ﻿
   <footer id="dibu">
    <div class="about">
     <div class="right">
      <ul class="menu" id="menu-%e5%ba%95%e9%83%a8%e8%8f%9c%e5%8d%95">
       <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-18024" id="menu-item-18024">
        <a href="http://dataunion.org/category/partners">
         合作伙伴
        </a>
       </li>
       <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-20881" id="menu-item-20881">
        <a href="http://dataunion.org/contribute">
         文章投稿
        </a>
       </li>
       <li class="menu-item menu-item-type-taxonomy menu-item-object-category menu-item-20872" id="menu-item-20872">
        <a href="http://dataunion.org/category/%e5%8a%a0%e5%85%a5%e6%95%b0%e7%9b%9f">
         加入数盟
        </a>
       </li>
       <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-22441" id="menu-item-22441">
        <a href="http://dataunion.org/f-links">
         友情链接
        </a>
       </li>
       <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-20874" id="menu-item-20874">
        <a href="http://dataunion.org/aboutus">
         关于数盟
        </a>
       </li>
      </ul>
      <p class="banquan">
       数盟社区        ，
        做最棒的数据科学社区
      </p>
     </div>
     <div class="left">
      <ul class="bottomlist">
       <li>
        <a href="http://weibo.com/DataScientistUnion  " target="_blank" 　title="">
         <img src="http://dataunion.org/wp-content/themes/yzipi/images/weibo.png"/>
        </a>
       </li>
       <li>
        <a class="cd-popup-trigger" href="http://dataunion.org/20034.html#0">
         <img src="http://dataunion.org/wp-content/themes/yzipi/images/weixin.png"/>
        </a>
       </li>
      </ul>
      <div class="cd-popup">
       <div class="cd-popup-container">
        <h1>
         扫描二维码,加微信公众号
        </h1>
        <img src="http://dataunion.org/wp-content/themes/yzipi/images/2014-12-06-1515289049.png"/>
        <a class="cd-popup-close" href="http://dataunion.org/20034.html">
        </a>
       </div>
       <!-- cd-popup-container -->
      </div>
      <!-- cd-popup -->
     </div>
    </div>
    <!--about-->
    <div class="bottom">
     <a href="http://dataunion.org/">
      数盟社区
     </a>
     <a href="http://www.miitbeian.gov.cn/" rel="external nofollow" target="_blank">
      京ICP备14026740号
     </a>
     联系我们：
     <a href="mailto:contact@dataunion.org" target="_blank">
      contact@dataunion.org
     </a>
     <div class="tongji">
     </div>
     <!--bottom-->
     <div class="scroll" id="scroll" style="display:none;">
      ︿
     </div>
    </div>
   </footer>
   <!--dibu-->
  </div>
 </body>
</html>